一 . 概述

Sigmoid函数得名因其形状像S字母。一种常见的S函数是逻辑函数

优点:平滑、易于求导。

缺点:激活函数计算量大,反向传播求误差梯度时,求导涉及除法;反向传播时,很容易就会出现梯度消失的情况,从而无法完成深层网络的训练。